參考資料
1. 李弘毅的ML講義
2. Day 09：CNN 經典模型應用
3. [機器學習 ML NOTE] CNN演化史(AlexNet、VGG、Inception、ResNet)+Keras Coding
4. Object Localization and Detection

• 原理與架構說明： Convolutional Layer (卷積層)、Pooling Layer (池化層)、Fully Connected Layer (全連階層)

Filter:3x3(紅框)往右移一格就做一次內積，到底就下一行重複動作

2x2(紅框)內的數值 --> 選最大者

就可以得到New image but smaller

• 常用模型應用說明：VGG16、VGG19、ResNet50、InceptionV3
#Keras提供了一些用ImageNet訓練過的模型：Xception，VGG16，VGG19，ResNet50，InceptionV3。在使用這些模型的時候，有一個引數include_top表示是否包含模型頂部的全連線層，如果包含，則可以將影象分為ImageNet中的1000類，如果不包含，則可以利用這些引數來做一些定製的事情。
LeNet的運作，就是簡單利用了卷積跟池化，並接上全連結層做分類
AlexNet使用了非線性的激活函數Relu，在AlexNet以前大部分都是用tanh。重要的突破是:用多個GPU並行運算
...
VGGNet跟AlexNet之間並沒有什麼太大的差異，只是將網路的深度變深，進而得到更好的結果

當網路層數加深時，梯度在傳遞的過程中就會慢慢的消失，這也就是所謂的梯度消失，就會無法對前面網路層的參數進行有效的更新，因此Deep Residual Network就出現了，也就是ResNet。

GoogLeNet並不是像VGG或是AlexNet那種加深網路的概念，而是加入了一個叫做Inception的結構來取代了原本單純的卷積層(但他其實也是利用卷積來達成)，而他的訓練參數也比AlexNet少上好幾倍，而且準確率相對更好

• CNN與影像辨識實務應用說明：分類(Classification)、Semantic按語意切割

• (Segmentation)、定位(Classification + Localization)、物體偵測(Object Detection)、實體切割(Instance Segmentation)

• 主題實作：卡通圖像角色辨識、模型實作(載入模型、訓練模型、新建模型、調整參數、績效評估、Fine-tuning)、圖片辨識、圖片去雜訊